Jimmy Wales chào đời tại Huntsville, tiểu bang Alabama (Hoa Kỳ), vào tháng 8 năm 1966, nhưng không ai biết ngày nào (theo Wikipedia tiếng Anh là ngày 7).[2] Cha của Wales, nay đã về hưu, là người quản lý một cửa hàng thực phẩm. Mẹ của Wales, Doris, và bà ngoại Erma điều hành một trường tư thục nhỏ, "theo truyền thống trường học một phòng", đó cũng là nơi Wales đến để học tập. Thường thì chỉ có bốn học sinh cho một cấp lớp nên trường dồn chung từ cấp lớp 1 đến cấp lớp 4, và từ cấp lớp 5 đến cấp lớp 8. Wales nhận xét rằng kinh nghiệm đến trường của mình không có gì khác biệt bởi vì hai giáo viên chính của cậu là mẹ và bà ngoại. Học sinh ở đây được hưởng một sự tự do đáng kể để có thể học bất cứ thứ gì họ thích; triết lý giáo dục của trường chịu ảnh hưởng phương pháp Montessori. Người ta kể rằng Wales tiêu tốn nhiều thì giờ để nghiền ngẫm bộ Bách khoa Toàn thư Thế giới (World Book Encyclopedia).[4]

Sau lớp tám, Wales được gởi đến Trường Randolph, thuộc loại hình trường dự bị đại học (prep school - thường có học phí cao với chương trình học tập tốt), cho phép học sinh trực tiếp sử dụng phòng thực tập vi tính và các kỹ thuật khác. Wales kể lại rằng loại hình trường học này là quá mắc cho gia đình cậu, nhưng họ tin vào tầm quan trọng của giáo dục:

Wales nhận văn bằng cử nhân tại Đại học Auburn và bằng thạc sĩ tại Đại học Alabama. Về sau, Wales tham dự các khoá học cho chương trình tiến sĩ chuyên ngành tài chính tại Đại học Alabama và Đại học Indiana.